Idea penubuhan USIM dicetuskan oleh YB Dato’ Sri Mohd Najib Tun Abdul Razak (kini YAB Dato’ Seri), Menteri Pendidikan pada ketika itu, dan disokong oleh YAB Dato’ Seri Dr Mahathir Mohamad (kini Tun) selaku Perdana Menteri. Ianya kemudian direalisasikan oleh YBhg Dato’ Dr Abdul Shukor Haji Husin (kini Prof Emeritus Tan Sri) yang ketika itu merupakan Dekan Fakulti Pengajian Islam (FPI), Universiti Kebangsaan Malaysia (UKM) dan YBrs Prof Madya Dr Abdullah Mohamed Zin (kini Tan Sri Dato’) pensyarah UKM, YB Datuk Dr Mohamed Yusof Noor (kini Tan Sri) yang ketika itu Exco Terengganu dan YB Tan Sri Datuk Dr Abdul Hamid Othman (Allahyarham), ketika itu Menteri di Jabatan Perdana Menteri. Pelaksanaan operasi awal USIM dibantu oleh Tuan Haji Addenan Abd Rahman sebagai Pendaftar, Puan Hajah Rohani Abu sebagai Bendahari, Encik Jasmin Jaimon sebagai Ketua Pustakawan dan Ir Daim Saian sebagai Pengarah Unit Pembangunan.

Penubuhan USIM membuka peluang kepada para pelajar lepasan sekolah aliran agama menyambung pengajian tanpa perlu ke Timur Tengah selain memenuhi hasrat kerajaan untuk mempunyai pusat pengajian Islam berikutan konflik di sesetengah negara Islam. Pada 6 Safar 1418 H (13 Jun 1997 EM), Jemaah Menteri bersetuju dengan penubuhan KUIM yang diwartakan pada 14 Zulkaedah 1418 H (13 Mac 1998 EM) dengan keunikan tersendiri melalui kurikulum yang menekankan paduan ilmu naqli dan aqli.

Universiti ini melalui penjenamaan semula dengan dianugerahkan status universiti penuh berkuatkuasa 13 Muharram 1428 H (1 Februari 2007 EM) dan dikenali sebagai USIM. Perasmian kampus tetap USIM diadakan dengan penuh gilang-gemilang pada 26 Zulkaedah 1429 H (25 November 2008 EM) oleh Perdana Menteri Malaysia kelima, YAB Dato’ Seri Abdullah Ahmad Badawi (kini Tun). 

Keputusan USIM untuk memilih paduan ilmu naqli dan aqli sebagai falsafah Universiti memberi harapan dan semangat kepada generasi baharu Muslim untuk membongkar serta memanfaatkan kembali khazanah intelektual Islam dan mengenal pasti faktor-faktor yang mendorong kepada kegemilangan tamadun Islam. Usaha ini memberi peluang yang lestari kepada generasi akan datang untuk membina tamadun terbaik berasaskan kefahaman dan pelaksanaan Islam secara komprehensif dan sepadu. Ini disokong pula dengan penggunaan kitab- kitab turath yang ternama sebagai satu lagi asas keunikan pendidikan USIM. Semua penuntut didedahkan kepada sumber-sumber tersebut sebagai tambahan kepada ilmu kontemporari.

Kitab turath atau kitab lama sinonim dengan panggilan kitab kuning dalam kalangan generasi pondok. Kewujudannya di USIM bukan semata-mata menonjolkan keunikan dan hala tujunya yang berbeza berbanding dengan universiti-universiti yang lain. Sebenarnya ia mempunyai hasrat yang besar dan wawasan yang unggul iaitu menjadi sebuah universiti berteraskan pengajian Islam dan melahirkan generasi ulama yang bukan sekadar didedahkan kepada subjek-subjek agama. Menghubungkan penuntut dengan sumber utama (turath) merupakan agenda penting yang perlu dibudayakan. Ini usaha membentuk peribadi ulama. Misalnya, ulama perlu mempunyai hubungan ilmu dengan generasi sebelumnya (sanad) dalam memastikan kelestarian ilmu yang sahih. Selain itu, ulama juga perlu membawa bendera keamanan (rahmah).